多智能体团队中该修改哪个智能体的技能?基于群体相对优势的信用分配
🧭 多智能体技能演化与信用分配 ★ 深度解读
Mayo Clinic · University of Manchester · Alibaba Token Hub, Alibaba Group · Shanghai University of Finance and Economics
GRSE 用同题多轨迹对比把团队 reward 归因到 agent-skill 并驱动技能修订,超越 MASkills
📌 工作参考价值(4 点)
- 多 Agent 推荐/搜索流水线(召回-粗排-精排-生成文案)出现 Bad Case 时,不要默认归咎于最终生成 Agent;复用 GRSE 的 group-relative 思路:同一 query 采样 4 条完整链路,比较高低 advantage 轨迹中每个 agent 的输入输出差异,定位真正需要修改的 agent-skill。
- 把业务规则/策略封装为自然语言 skill 库,只演化 skill 不动模型权重,适合在线迭代;用 structured failure diagnosis 的 8 类失败类型 + 引用具体 step + edit action,让归因可验证、可执行,并通过 validation gate 防止指标回退。
- 定期清理手写或迁移来的 skill 库:GRSE 证明 presence-based 信用会奖励“一路顺风但实际有害”的技能,而 group-relative 信用能正确 prune harmful skill(实验中对植入有害技能全部正确识别)。可用于技能库的巡检和跨场景迁移。
- 工程上注意:每组 G=4 轨迹训练 token 开销约 1.6-2.9x,但测试无额外开销;跨问题聚合时要按 distinct question 计数,避免重复采样同一问题虚高支持度;equal-reward groups 不丢弃,仍能提供一致失败/成功信号。
DrugHarness:可进化代理框架用于计算药物发现
🧭 Agent 技能进化 · 科学执行
Shanghai Artificial Intelligence Laboratory · China Pharmaceutical University · University of the Chinese Academy of Sciences · Shanghai Jiao Tong University · Westlake University
通过条件技能归纳与独立审核,构建可进化的科学代理框架,显著提升分子筛选与优化能力
📌 工作参考价值(4 点)
- 可借鉴“技能库+独立审核”机制:从执行轨迹和结果反馈中归纳候选策略,由独立 review agent 做来源核验与定向试跑后入库。在电商推荐 Agent 中可先由 critic LLM 评估新策略,再利用历史日志或小流量实验验证,避免噪声策略直接上线。
- 为技能绑定可观察的适用条件(applicability conditions),仅在满足条件时激活。推荐场景中可将策略与用户群、场景、上下文绑定,避免全局误用;类似规则引擎中的条件触发,但由 LLM 自动归纳条件。
- 环境保留候选、结果、产物的关联 lineage,便于回溯和提炼技能。推荐系统可构建“推荐轨迹-用户反馈-候选集”的 lineage store,用于策略诊断、归因和持续优化。
- 分离“执行”与“技能审核”两个角色,防止自我强化偏差。在推荐 Agent 中设置独立策略评估器,对生成的新策略做验证后再上线,能降低风险并提高策略质量。
轨迹到差异化技能:自我改进 Agent 的认知分化
🧭 Agent 技能自进化 · 功能分化 ★ 深度解读
University of Science and Technology of China · Meituan · City University of Hong Kong
提出 CDSE 将轨迹提炼为 Meta/Experience/Tool/Script 四类功能分化组件,统一维护与自适应调用,在 36 个评测设置中全面超越既有技能进化方法
📌 工作参考价值(4 点)
- 在构建电商/广告领域的 Agent 技能库时,不要把所有经验写进一个大 prompt 或文档,而是按 Meta/Experience/Tool/Script 拆分;例如商品运营 Agent 中,Meta 管任务规划和停止条件,Experience 管类目/活动上下文的启发规则,Tool 管具体 API 调用注意事项,Script 管可复用的数据清洗/报表脚本。
- 从成功和失败轨迹中提取“语义梯度”时,要求每条更新附带轨迹证据行,先做证据过滤和因果定位,再保留;可借鉴用于自动从客服对话、运营操作日志中挖掘可复用规则,减少无证据的泛泛总结。
- 对可执行脚本类知识引入独立验证和自测,未通过验证不进库;这可以避免自动化流程中错误脚本污染后续任务。
- 采用描述可见的自适应调用:在组件加载前提供简短 scope/触发条件/预期收益描述,让 LLM agent 自主选择何时加载哪个组件;实验表明零加载也能通过描述影响行为,适合在 prompt 预算有限时做渐进式披露。
RSIPO:技能与策略共进化的递归自改进Agent强化学习
🧭 Agent 强化学习 · 技能-策略共进化 ★ 深度解读
CUHK · THU · NUS · Tongji University · UW-Madison
用重放增益奖励技能生成并以经验贝叶斯校准教师信任,实现技能-策略共进化
📌 工作参考价值(4 点)
- 可借鉴「执行检查」机制到购物/搜索 Agent 技能库更新:让 Agent 从自身轨迹中改写技能,用同一初始状态下带技能重放 vs 无技能控制组的效用差作为 reward,不依赖外部 judge 模型或额外标注数据,特别适合可重置的仿真购物、离线检索沙盒。
- Type-level empirical Bayes shrinkage 对任务级重放增益降噪后再映射为教师信任系数 ωx,可直接替代 OPSD/蒸馏中均匀信任权重;电商场景中不同品类/任务类型难度差异大,按类型池化增益能减少不可靠教师信号对策略的损害。
- 对可重置环境可低成本采纳,但线上不可重置环境需额外处理;重放增加 K 次 rollout 与训练成本,可考虑只在部分任务上做执行检查、用早停或小 K 控制开销。
- 技能 reward 用「该技能增益 - 同类型平均增益」做中心化,避免绝对增益偏差,适合在在线技能更新中稳定策略梯度;无效技能用固定惩罚 ρ,且搜索类任务可设 ρ=0 防止格式不稳定。
EVISKILL:基于可回放证据的 Agent 持续技能演化
🧭 Agent 持续技能进化与证据回放
School of Artificial Intelligence, Jilin University, Changchun, China
用可回放证据卡与定向重放验证技能编辑,缓解经验驱动技能演化中证据丢失和全局验证粒度过粗问题
📌 工作参考价值(3 点)
- 把 agent 执行轨迹中的 state/action/observation/context 打包成结构化证据卡,技能修改时显式绑定支撑证据;后续可用同一批轨迹做定向重放验证,让技能更新可审计、可回滚。
- 将验证拆成编辑级回放与全局验证两层:先用局部证据筛选出可信候选修订并暂存,再按整体任务集决定是否并入正式技能,避免一次性拒绝丢失有效局部修正;适合电商客服 SOP、选品策略等需要长期迭代 agent 流程的场景。
- 跨 epoch 保留证据和候选修订,允许证据不足的编辑等待更多交互经验再确认,提供一种更稳的 agent 策略在线进化机制;对推荐策略、工具选择规则等可复现程序知识的维护有价值。
世界动作智能体:通过世界动作预演利用 VLM 进行机器人操作
🧭 多智能体机器人操控与技能演化
HKUST(GZ) · CUHK · Knowin AI
多智能体视觉动作工作空间让 VLM 通过动作预演、视图内修正和技能演化实现机器人操作 SOTA
📌 工作参考价值(4 点)
- 可编辑动作提案与预演机制:在推荐/广告 Agent 中,可让 LLM 先产出候选策略或推荐列表,由 Reviewer/Imagination Agent 在低成本模拟中预演,结合离线评估器反馈修订,再决定是否真实上线,降低高风险操作成本。
- 多智能体分工:把主决策、预演评估、技能检索拆成不同 Agent,例如电商推荐中主 Agent 负责当前会话决策,Skill Agent 检索历史有效策略(选品、话术、促销),避免单一 Agent 上下文过载。
- 用交互轨迹蒸馏轻量模型:论文中 harness 轨迹微调将域外成功率从 1.7% 提升到 43.3%,这启示我们可以收集线上 Agent 高质量决策轨迹,蒸馏一个轻量策略模型用于高频、低时延场景,兼顾泛化与成本。
- 选择性上下文呈现:从场景几何自动挑选与当前交互相关的视图,类似在商品推荐中可以根据用户当前浏览/购物车动态裁剪商品属性、图片切片或用户行为段,减少无关信息对 VLM 决策的干扰。
反思、修订、复用:GUI Agent 的无训练技能演化
🧭 GUI Agent 技能演化 · 训练自由反思修订
Zhejiang University · UESTC
提出训练自由的 EvoSkill-GUI,将技能作为多文件包通过反思-修订-复用循环持续从执行反馈中改进,在三大 GUI 基准上最多提升 16.2%
📌 工作参考价值(4 点)
- 技能包多文件结构化:将 retrieval metadata、plans、backup localization、failure-recovery rules、failure cases 分文件管理,业务 Agent(如客服自动化、营销流程)可借鉴把关键过程知识模块化,方便局部更新,避免整体重写。
- 反思-修订-复用闭环:部署后从失败轨迹自动修订技能,不需重新训练模型;推荐/广告 Agent 可利用线上失败样本持续改进执行策略,提升动态环境鲁棒性。
- 即时 in-rollout 修订 + 隔离 critic:执行时遇到弹窗/页面变化可立刻根据备用定位和恢复规则调整;critic 在信息隔离下诊断避免被错误轨迹污染,对构建可靠自动化流程有参考。
- 训练自由,低成本迭代:无需 GPU 训练,仅依赖 LLM 推理与文件编辑,适合需要快速适应界面改版或流程变化的电商运营自动化场景。
RedEvoAgent:经验驱动技能演化的自动红队智能体
🧭 LLM Agent 技能进化与安全红队 ★ 深度解读
City University of Hong Kong · Shenzhen MSU-BIT University
将攻击轨迹蒸馏为可读技能,并用验证棘轮做候选更新,提升黑盒 Agent 攻击效果与工具效率
📌 工作参考价值(4 点)
- 对商品推荐/搜索 Agent 的策略迭代:把召回-排序-重排或 query 改写策略写成可读 skill 文档,候选版本只有验证集或小流量指标严格优于当前策略才上线;失败候选进入 rejection context,减少反复生成无效配置。
- 在多工具 Agent 链路中做“决定性工具归因”:不按工具出现频率记功,而把成功案例归因到直接带来正向反馈的工具/动作,可避免策略坍缩到高频但低效的工具。
- 工具/策略先做隔离评分画像:对候选工具在固定数据上单独评估,再让 LLM 结合轨迹总结优先级;比检索全量历史轨迹上下文成本更低、可读性更好。
- 可零样本复用与安全测试:在一个模型/执行环境上进化出的 skill 可迁移到其他模型/harness,适合多租户电商 Agent 的对抗测试、鲁棒性评估;工具调用次数也可作为效率指标纳入评估。
WikiSkill:把 Agent 经验编译为持久知识驱动技能进化
🧭 Agent 技能进化 · 持久知识库协同 ★ 深度解读
Google Research · Virginia Tech
提出 WikiSkill 框架,通过持久 wiki 知识层将 Agent 执行经验持续沉淀为可复用模式,显著提升技能进化效果与跨模型迁移性。
📌 工作参考价值(4 点)
- 可借鉴三层知识架构:把线上推理产生的完整轨迹存成 raw 层,把失败/成功模式沉淀到 wiki 层,把可执行 SOP/工具用法写成 skills 层;电商搜索推荐 Agent 在做 prompt/SOP 自动优化时,可以让知识持续累积而不是每次从零重新扫描。
- 优化阶段限制 Inference Agent 访问 wiki,只允许 Skill Proposer 读取持久知识:直接给执行器 wiki 会让其借道 wiki 绕过 skill,降低轨迹对 skill 优化的信息量;对应工程实现是训练/优化时隔离知识库与线上 agent,只在 proposer 侧使用。
- 用 validation gating + skill-impact.md 审计:每次 skill 变更都在验证集打分,接受才保留,拒绝则回滚 skill 但 wiki 不重置;记录 proposal diff、分数、是否接受,避免重复提交失败方案,适合电商推荐 Agent 的 prompt 自动化调优。
- 跨模型迁移经验:小模型发现的通用工作流可以迁移到大模型、甚至超过后者自进化技能;在预算有限时,可让小模型产出/优化电商搜索的 query 改写或推荐解释 SOP,再部署到大模型,降低 token 成本。
SkillProx:通过近端文本梯度下降实现自演化智能体技能
🧭 自演化技能 · 近端梯度文本优化 ★ 深度解读
Hong Kong University of Science and Technology · Macau University
结合闭环诊断验证与验证门控近端精炼,在表格任务上平均准确率超越最强梯度基线3个百分点
📌 工作参考价值(4 点)
- 闭环更新验证:在更新技能或提示词后,必须在同一批次数据上重新执行并检查硬指标是否提升,仅接受有益更新,避免“看起来合理”但实际有害的修改直接写入。可立即用于搜索推荐系统的指令/策略迭代。
- 冻结效用审计:对技能/提示的每个知识单元(如某条规则、示例)做 leave-one-out 评估,量化其边际效用,精准识别负面贡献的冗余内容。可迁移到 Prompt 管理、工具选择等场景。
- 验证门控压缩:通过设置容忍阈值(硬精度不降、单元精度小幅可降)和压缩上限,有序删除或合并低效内容,在控制性能的前提下减少技能长度,降低上下文成本。适用于需要长上下文的 Agent 或检索增强生成。
- 前后向分工:前向负责在线更新,后向负责回溯清理,两种反馈时间尺度互补,可借鉴到推荐系统策略的端到端演化框架中。
贝叶斯智能体:后验引导的技能进化驾驭LLM代理
🧭 贝叶斯证据驱动的代理技能进化 ★ 深度解读
IDEA Research · The Hong Kong University of Science and Technology (Guangzhou) · DataArcTech Ltd.
将代理技能视为贝叶斯假设,基于验证轨迹后验指导技能修补、压缩与退役,实现无需改权重的可靠进化。
📌 工作参考价值(4 点)
- 技能维护引入贝叶斯后验:不要仅凭成功/失败次数决定是否保留技能,使用特征条件后验(如失败模式、上下文)估计技能可靠性,避免小样本下的决策噪声。
- 分离审计与执行:后验诊断信息只留给开发者,模型提示仅注入确定的失败补丁与 guardrail,避免 LLM 直接处理概率数字,提升 prompt 稳定性。
- 增量修复模式:对已完成的代理运行,仅重跑失败任务并基于证据修补技能,可用较低 token 成本提升整体成功率(如 RealFin 从 45% 修到 65%)。
- 轨迹特征离散化:将失败模式、token 数、回合数等桶化编码为离散特征,适合小样本技能效果推断,可借鉴至电商多轮代理的失败模式分析与自动护盾生成。